#2070 TFLOPS
剛剛,輝達推最強人形機器人“大腦”,AI性能暴漲7.5倍,算力飆到2070 TFLOPS
輝達將Blackwell GPU引入機器人“大腦”。地表最強機器人“大腦”,又易主了!智東西8月25日報導,今日,輝達推出專為物理AI和人形機器人打造的NVIDIA Jetson Thor,它被輝達創始人兼CEO黃仁勳稱作是“推動物理AI和通用機器人時代的終極超級電腦”。Jetson Thor採用輝達Blackwell GPU、14核Arm Neoverse CPU和128GB視訊記憶體,視訊記憶體頻寬為273 GB/s,FP4精度下AI峰值算力為2070 TFLOPS,FP8精度下AI峰值算力為1035 TFLOPS,可在邊緣加速生成式AI與大型Transformer模型。它支援包括VLA(視覺語言動作)模型、LLM(大語言模型)、VLM(視覺語言模型)在內的各種生成式AI模型,能處理即時視訊資料流和AI推理,適用於建構可在邊緣執行視覺搜尋和總結任務的AI agents。包括CPU、GPU、SLC、DRAM連接、網路、電源管理等在內,整個Jetson Thor電腦的功率可配置在40W到130W之間。借助4個25 GbE網路、攝影機解除安裝引擎和Holoscan感測器橋接器,Jetson Thor可提取高速感測器資料,實現即時性能。全新機器人晶片專攻的重點特性,就是運行多AI工作流,讓機器人能與人類和物理世界進行即時、智能的互動,推動視覺AI agents和複雜機器人系統的發展。與上一代Jetson Orin相比,Jetson Thor的AI計算性能提升多達7.5倍,能效提升多達3.5倍,CPU性能提升多達3.1倍,I/O吞吐量提升多達10倍。如果10年前相比,性能提升就更猛了——AI性能足足提高多達7000倍。Jetson Thor與機器人AI軟體平台搭配,支援各種主流AI框架,以及字節跳動、DeepSeek、阿里Qwen、GoogleGemini、Meta、Mistral AI、OpenAI、Physical Intelligence(π)等企業的生成式AI模型。它還與輝達從雲到邊緣的軟體棧完全相容,包括用於機器人模擬和開發的Isaac平台、Isaac GR00T人形機器人基礎模型、用於視覺AI的NVIDIA Metropolis和用於即時感測器處理的NVIDIA Holoscan等。機器人需要搭載豐富的感測器來感知世界,並實現低延時的AI處理。即時控制框架通常在100Hz-1kHz頻率上運行,感知與規劃通常在30Hz頻率上運行,高級推理通常在1-5Hz頻率上運行,就像人思考一樣,可能會想幾秒鐘。在平行處理16個感測器輸入時,運行Llama 3B和Qwen 2.5 VL 3B模型,Jetson Thor生成第一個token的時間在200ms內,輸出每token的時間在50ms內,這意味著運行這些模型可以每秒生成超過25個token,相較前代翻倍提升。Jetson Thor為通用推理而設計,運行阿里Qwen 3-30B-A3B、輝達Cosmos Reason 1 7B、DeepSeek-R1-Qwen-32B等推理模型時,FP8精度下性能已經提升多達3~5倍,FP4精度下更是猛躥一大截,最多提升至10倍。輝達CUDA生態系統中的軟體在Jetson整個生命周期中不斷最佳化。例如,在整個生命周期中,通過軟體升級將Xavier的性能提高了50%,將Orin的性能提高了100%。隨著未來軟體持續最佳化,Jetson Thor將實現更大幅度的性能提升。自2014年以來,輝達Jetson平台與機器人軟體棧吸引了200多萬開發者和150多個硬體系統、軟體和感測器合作夥伴組成的生態系統。7000多家客戶已採用Jetson Orin。眾擎機器人、銀河通用、優必選、宇樹科技等明星人形機器人公司,還有聯影醫療等醫療企業、萬集科技等智能交通企業,都已經率先採用Jetson Thor。輝達Jetson AGX Thor開發者套件現已上市,全球開售,起售價3499美元(約合人民幣2.50萬元)。Jetson T5000、Jetson T4000模組可從全球分銷合作夥伴處獲得。Jetson T5000起售價2999美元(約合人民幣2.15萬元),Jetson T4000起售價1999美元(約合人民幣1.43萬元)。具體規格如下:輝達DRIVE AGX Thor開髮套件是輝達為安全自動駕駛汽車設計的開發平台,已通過安全認證,同樣搭載了內建生成式AI引擎的Blackwell GPU,有豐富的SDK套件和庫。該開髮套件已經可以預訂。比亞迪、元戎啟行、廣汽、智己、理想、文遠知行、小米、極氪、卓御等領先的智能駕駛汽車企業都在積極擁抱DRIVE AGX Thor。面向人形機器人開發,輝達提供了基礎的系統、藍圖、工具、服務、演算法及其他機器人技術,與生態系統合作,為建構機器人產品並將其帶到現實世界的四個重要步驟(資料生成、模型訓練、模擬測試、部署推理)提供端到端完整工作流。輝達機器人業務正在快速增長。今年,輝達在財報中將汽車和機器人業務合併,第一季度收入為5.67億美元,同比增長72%。目前,輝達專注於為物理AI和機器人打造3台電腦,包括用於訓練模型的NVIDIA DGX AI超算、用於合成資料生成與模擬測試的NVIDIA OVX電腦以及安裝在機器人本體上的即時電腦(如Jetson Thor)。從感知AI、生成式AI、Agentic AI到面向未來的物理AI,輝達正將其計算疆域鋪滿AI的整個生命周期。 (智東西)